Relevance-Based Embeddings: Lightweight Candidate Retrieval via Heavy-Ranker Calls
基于相关性的嵌入：用重排序器调用实现轻量级候选检索
🧭 轻量级候选召回 · 相关性嵌入 ★ 深度解读
Yandex
利用重排序器评分构造查询与物品的相关性向量，通过神经网络映射为嵌入，可近似任意复杂相关函数且参数极少。
📌 工作参考价值（4 点）
- 直接复用重排序器分数作为特征：如果业务中已有性能很强的重排序模型（如 CatBoost 或大型 CE），可将其对少量「支持集」的打分向量作为查询和物品的表示，无需额外特征工程，就能训练一个超轻量召回模型（参数量可低至 50K，而基线双塔有 300M+）。
- 支持集选择策略是核心杠杆：实验表明，简单的 KMeans 聚类中心或 l2-greedy 贪婪选点比随机选支持集提效显著（HitRate@100 相对提升 10~20 个百分点）。在电商推荐中，可直接按一级类目聚类、或用高频交互物品作为支持集，零额外成本提升召回质量。
- 训练时组合 CUR 近似与可学习残差：将初始化嵌入设为 CUR 分解得到的系数，再用浅层 MLP 学习残差，能稳定训练并进一步提点，这一技巧可迁移到任何用评分向量构建序列表征的场景。
- 灵活应对物品冷启与动态库：对新物品只需计算其与固定支持查询的相关性向量，立即获得嵌入，无需重训嵌入表；在物品集固定的情形下，也可以直接用可训练 embedding 代替 f_I，大幅减少线上重排调用次数。